#encoding=utf8
import numpy as np
import pickle
import os
import sys
from tqdm import tqdm

#********* Begin *********#
# 此处可选填

# 导入 scikit-learn 库中的 KNN 分类器
from sklearn.neighbors import KNeighborsClassifier
from sklearn.preprocessing import StandardScaler
from sklearn.decomposition import PCA
from sklearn.model_selection import GridSearchCV, cross_val_score
from sklearn.pipeline import Pipeline

#********* End *********#

def load_dataset(file_name):
    '''
    从文件读入数据集
    被多处调用，请勿删除或改动本函数！！！
    '''
    try:
        with open(file_name, 'rb') as f:
            raw_dataset = pickle.load(f)
    except FileNotFoundError:
        print(f"错误: 文件 {file_name} 未找到。请确保文件路径正确。")
        return None, None
    
    try:
        example_image = raw_dataset[0][0]
    except KeyError:
        print("错误: 数据集格式不正确，无法找到类别0的数据。")
        return None, None
    except TypeError:
        print("错误: 数据集格式不正确，类别0的数据不是列表或数组。")
        return None, None

    dataset = np.empty((0, example_image.size))
    labels = np.empty((0, 1))

    for i_class in raw_dataset.keys():
        images_list = raw_dataset.get(i_class, [])
        if not isinstance(images_list, list) or len(images_list) == 0:
            continue
        for image in images_list:
            # 直接展平并归一化图像数据
            features = image.flatten() / 255.0
            
            dataset = np.vstack((dataset, features))
            labels = np.vstack((labels, i_class))

    return dataset, labels

class Classifier:
    def __init__(self):
        # 初始化模型和数据
        self.model = None
        # 管道（Pipeline）会自动处理数据预处理和模型训练的顺序
        self.pipeline = None

        # 下行代码从training_dataset.pkl文件读入训练数据，得到：
        # （1）训练数据 train_dataset：形状为(1000, 784)的ndarray
        # （2）训练数据的标签 train_labels：形状为(1000, 1)的ndarray
        self.train_dataset, self.train_labels = load_dataset('./step1/input/training_dataset.pkl')
        if self.train_dataset is None:
            raise RuntimeError("训练数据集加载失败，无法继续。")

    def train(self):
        # 训练模型
        print("=== 正在配置模型管道并寻找最优参数... ===")
        
        #********* BEGIN *********#
        # 使用 Pipeline 将数据处理和模型训练串联起来
        pipeline = Pipeline([
            ('scaler', StandardScaler()),         # 第1步: 标准化
            ('pca', PCA()),                       # 第2步: PCA 降维
            ('knn', KNeighborsClassifier())       # 第3步: KNN 分类
        ])

        # 定义要搜索的超参数空间
        # 这里我们寻找最佳的 PCA 降维维度和 KNN 的 K 值
        param_grid = {
            'pca__n_components': [50, 100, 150],  # 尝试不同降维维度
            'knn__n_neighbors': [1, 3, 5, 7, 9],  # 尝试不同 K 值
            'knn__weights': ['uniform', 'distance'] # 尝试不同权重策略
        }

        # 使用 GridSearchCV 进行超参数调优
        # cv=5 表示使用 5 折交叉验证
        grid_search = GridSearchCV(
            pipeline, 
            param_grid, 
            cv=5, 
            scoring='accuracy', 
            n_jobs=-1,
            verbose=2
        )
        
        train_labels = self.train_labels.ravel()
        grid_search.fit(self.train_dataset, train_labels)

        self.model = grid_search.best_estimator_
        self.pipeline = self.model  # 将最优管道赋给 self.pipeline

        print("=== 模型训练完成 ===")
        print(f"最佳参数: {grid_search.best_params_}")
        print(f"最佳交叉验证准确率: {grid_search.best_score_:.4f}")

        #********* END *********#

    def predict(self, test_dataset):
        '''
        输入：测试数据 test_dataset: 形状为(500, 784)的ndarray
        输出：预测结果 predicted_labels: 形状为(500, )的ndarray
        '''
        #********* BEGIN *********#
        # Pipeline 会自动对测试数据应用相同的标准化和降维变换，然后进行预测
        predicted_labels = self.pipeline.predict(test_dataset)

        #********* END *********#
        return predicted_labels
    
    #********* Begin *********#
    # 此处可选填

    #********* End *********#
    

#********* Begin *********#
# 此处可选填

#********* End *********#

def calculate_accuracy(file_name, classifier):
    test_dataset, test_labels = load_dataset(file_name)
    if test_dataset is None:
        return 0
    random_indices = np.random.permutation(test_dataset.shape[0])
    test_dataset = test_dataset[random_indices,:]
    test_labels = test_labels[random_indices,:]
    predicted_labels = classifier.predict(test_dataset)
    if isinstance(predicted_labels, np.ndarray):
        if predicted_labels.size != test_labels.size:
            print('错误：输出的标签数量与测试集大小不一致')
            accuracy = 0
        else:
            accuracy = np.mean(predicted_labels.flatten()==test_labels.flatten())
    else:
        print('错误：输出格式有误，必须为ndarray格式')
        accuracy = 0
    return accuracy

if __name__ == '__main__':
    classifier = Classifier()
    classifier.train()

    sum_accuracies = 0
    num_test_datasets = 0

    test_dir = './step1/input'
    test_files = ['test_dataset_clean.pkl'] + [
        f'test_dataset_noise_type{noise}_level{level}.pkl'
        for noise in range(1, 7)
        for level in range(1, 4)
    ]

    print("\n=== 正在对所有测试集进行评估... ===")
    with tqdm(total=len(test_files), desc="正在测试", file=sys.stdout) as pbar:
        for file_name in test_files:
            file_path = os.path.join(test_dir, file_name)
            pbar.set_description(f"正在测试: {file_path}")
            accuracy = calculate_accuracy(file_path, classifier)
            pbar.set_postfix({'正确率': f'{accuracy:.4f}'})
            pbar.update(1)
            sum_accuracies += accuracy
            num_test_datasets += 1
    
    mean_accuracies = sum_accuracies / num_test_datasets
    print(f'\n你在总共{num_test_datasets}个测试集上的平均正确率为：{mean_accuracies:.4f}')